« Les systèmes d’intelligence artificielle vont amplifier les biais de genre dans tous les domaines »

Le 12 mai, au forum Sistemic, un mouvement lancé par l’entrepreneuse Aude de Thuin pour combattre la sous-représentation féminine dans les sciences, la technologie numérique, l’ingénierie et les mathématiques, le thème de l’intelligence artificielle (IA) et des stéréotypes genrés qu’elle véhicule a été abondamment abordé. La ministre chargée de l’égalité entre les femmes et les hommes, Isabelle Rome, les mathématiciens Cédric Villani et Mélanie Guénais, l’entrepreneur Charles-Edouard Bouée, Nathalie Collin, directrice générale adjointe du groupe La Poste, et bien d’autres intervenants encore, dont la rédactrice de ces lignes, ont alerté sur ce véritable danger pour l’équilibre de notre société, auquel il nous faut immédiatement remédier.

Les rôles et stéréotypes associés au genre sont acquis à travers l’éducation et la socialisation des individus. Depuis les débuts du numérique, les métiers de l’informatique et de l’IA sont considérés comme des métiers d’hommes. Pourtant, ils ne nécessitent aucune qualité physique. A l’inverse, les métiers de la santé ou de la justice, de moins en moins attractifs par leurs salaires, sont maintenant des métiers féminins. Encore aujourd’hui, seulement 22 % des professionnels de l’IA dans le monde sont des femmes, selon le rapport égalité femmes- hommes du Forum économique mondial. Les biais sont dès lors inévitables, que ce soit dans les données d’apprentissage, dans la conception des IA, ou encore dans les usages.

La modalité principale de l’IA est celle de l’apprentissage machine, c’est-à-dire la capacité de programmes à apprendre les régularités statistiques les plus saillantes de grands ensembles de données. Les transformeurs, ces grands modèles de langages (présentés par Google en 2017) apprennent à produire, à partir de milliards de textes, les réponses de systèmes conversationnels comme ChatGPT et servent à bien d’autres applications (traduction, résumé, etc.).

Aliénation de la femme

La capacité de prendre en compte l’ensemble du contexte pour déterminer le sens d’un mot et d’utiliser des mécanismes d’attention dans l’apprentissage est l’avantage majeur de ces réseaux de neurones numériques. ChatGPT est capable d’écrire correctement dans plusieurs langues sans aucune compréhension ou contrôle de la véracité de ses propos. Ces systèmes sont également capables d’hallucinations, d’inventions de textes, tout autant que de plagiats. Ils peuvent donc réécrire nos connaissances et amplifier nos stéréotypes. Pourtant les textes produits par calcul statistique en réponse à nos questions dans ChatGPT nous semblent élaborés par des humains !

Il vous reste 57.34% de cet article à lire. La suite est réservée aux abonnés.